跳到主要内容

从机器学习到迁移学习

1. 从机器学习出发​

要理解迁移学习,最好的方式是先弄清楚它与经典机器学习的关系与区别。

1.1 机器学习的基本假设​

传统机器学习建立在一个非常关键的假设之上——独立同分布(i.i.d.) :训练集与测试集的样本来自同一个概率分布,并且样本之间相互独立。

在这个假设下,机器学习的目标是最小化结构风险:

min⁡f∈H1n∑i=1nℓ(f(xi),yi)+λΩ(f)\min_{f \in \mathcal{H}} \frac{1}{n}\sum_{i=1}^{n} \ell(f(x_i), y_i) + \lambda \Omega(f)

其中第一项是经验风险, Ω(f)\Omega(f) 是模型复杂度的正则项, λ\lambda 是超参。

1.2 现实为何常常不满足 i.i.d.​

在真实世界中,i.i.d. 假设几乎不成立:

  • 训练数据来自实验室干净环境,测试数据来自嘈杂现场;
  • 训练时的图像光照均匀,测试时天气变化多端;
  • 用户的兴趣随着时间迁移;
  • 医院 A 的设备与医院 B 的设备成像差异明显。

一旦分布发生偏移,模型往往性能骤降。这就是分布外泛化(Out-of-Distribution Generalization)问题,也是迁移学习要解决的问题。

2. 迁移学习的形式化定位​

迁移学习并不与机器学习对立,而是放松了 i.i.d. 假设 的一种更一般的机器学习框架。

给定:

  • 源域 Ds\mathcal{D}_s 与源任务 Ts\mathcal{T}_s;
  • 目标域 Dt\mathcal{D}_t 与目标任务 Tt\mathcal{T}_t;
  • 且 Ds≠Dt\mathcal{D}_s \ne \mathcal{D}_t 或 Ts≠Tt\mathcal{T}_s \ne \mathcal{T}_t。

迁移学习希望学到目标域上的预测函数 ftf_t,使得目标域上的期望损失最小:

ft∗=arg⁡min⁡f E(x,y)∼Pt[ ℓ(f(x),y) ]f_t^* = \arg\min_{f} \, \mathbb{E}_{(x,y) \sim P_t}[\,\ell(f(x), y)\,]

在只能观察到源域标签的情况下,我们需要借助源域的知识 + 目标域有限(甚至没有)的信息 来完成这一目标。

3. 分布偏移的三种类型​

理解分布偏移(Distribution Shift)的种类,有助于我们对症下药。

给定联合分布 P(X,Y)=P(X)P(Y∣X)=P(Y)P(X∣Y)P(X, Y) = P(X)P(Y \mid X) = P(Y)P(X \mid Y),从源域到目标域的偏移可能发生在:

3.1 协变量偏移(Covariate Shift)​

Ps(X)≠Pt(X),Ps(Y∣X)=Pt(Y∣X)P_s(X) \ne P_t(X), \quad P_s(Y \mid X) = P_t(Y \mid X)

输入分布变了,但输入到输出的映射关系不变。图像跨设备、跨光照的问题多属于此类。

3.2 先验偏移(Prior/Label Shift)​

Ps(Y)≠Pt(Y),Ps(X∣Y)=Pt(X∣Y)P_s(Y) \ne P_t(Y), \quad P_s(X \mid Y) = P_t(X \mid Y)

标签分布发生变化。例如源域中正负样本 1:1,目标域变为 1:9。医学诊断中不同人群的患病率不同就是典型例子。

3.3 概念漂移(Concept Drift)​

Ps(Y∣X)≠Pt(Y∣X)P_s(Y \mid X) \ne P_t(Y \mid X)

输入到输出的规则发生变化。用户偏好随时间变化,属于此类。

理解这三类偏移非常重要,因为不同类型对应不同的解法——协变量偏移可以通过样本重加权解决;先验偏移可通过类别加权;而概念漂移则最为棘手,往往需要在目标域获取新标签。

4. 从机器学习到迁移学习的思维转变​

传统机器学习的"训练—测试"模式关注同分布下的性能 ;迁移学习则要求我们思考几个新的问题:

  • 域间距离 :如何度量两个域的差异?答案将引出 MMD、KL 散度、H\mathcal{H}-divergence 等。
  • 可迁移性 :不是所有源域知识都值得迁移,如何判断"迁移可行"?
  • 风险边界 :迁移学习的泛化误差与什么有关?Ben-David 等人给出了经典的理论界。

Ben-David 的经典结论指出,目标域的期望误差可被以下三项之和所界定:

ϵt(h)≤ϵs(h)+dHΔH(Ds,Dt)+λ\epsilon_t(h) \le \epsilon_s(h) + d_{\mathcal{H}\Delta\mathcal{H}}(\mathcal{D}_s, \mathcal{D}_t) + \lambda

其中:

  • ϵs(h)\epsilon_s(h) 是源域上的误差;
  • dHΔHd_{\mathcal{H}\Delta\mathcal{H}} 是两域在假设空间上的差异;
  • λ\lambda 是理想联合误差(不可避免的一部分)。

这个界告诉我们:要想目标域好,必须同时降低源域误差和域间差异 ,几乎所有的域适应方法都是围绕这两项展开的。

5. 迁移学习的一般流程​

在实际操作层面,一个典型的迁移学习工作流可以概括为:

  1. 需求分析 :判断是否是迁移学习问题(是否存在分布偏移?源域是什么?目标域是什么?)
  2. 域间关系判断 :源域与目标域的相似程度如何?是否存在负迁移风险?
  3. 迁移策略选择 :基于样本、特征、模型还是关系?
  4. 算法实现与训练 :实现选定的迁移算法。
  5. 评估 :在目标域上进行评估,注意目标域数据无标签时评估方法的选择。
  6. 部署与监测 :持续监测线上分布变化,判断是否需要重新迁移。

References​

[1]. 王晋东,陈益强. 迁移学习导论(第二版). 电子工业出版社, 2022.

[2]. Ben-David S, et al. A Theory of Learning from Different Domains. Machine Learning, 2010.

[3]. Quionero-Candela J, et al. Dataset Shift in Machine Learning. MIT Press, 2009.